FastContext: Training Efficient Repository Explorer for Coding Agents
FastContext：为编程智能体训练高效的仓库探索器
🧭 Agent子代理专化与token效率优化
Microsoft · Shanghai Jiao Tong University
将仓库探索与任务求解分离，用专用小模型子代理并行搜索，最高提升5.5%解决率并削减60% token消耗
📌 工作参考价值（4 点）
- 在大模型推荐Agent中，可把商品库检索、用户画像查询等上下文探索任务交给专用小模型子代理，通过并行工具调用快速返回相关片段，避免主模型上下文爆炸和token浪费。
- 采用“强模型轨迹引导 + 任务奖励微调”两阶段训练法，利用大模型生成高质量探索路径，再在业务数据上微调小模型，低成本定制垂直领域（如电商搜索、广告定向）的探索器。
- 分离探索与推理的架构思想可直接迁移：设计“探索员-求解员”模式，探索员专注信息收集并返回带精确引用的证据，求解员仅做决策，可提升系统响应速度和决策准确性。
- token消耗降低60%的结论提示，在线上高并发推荐或对话场景中，通过精简上下文输入可大幅降低推理成本，且小模型额外开销极小，适合成本敏感业务。